Scheffler János tízgyermekes családban született 1887. október 29-én, Kálmándon. 1910. július 6-án szentelte pappá Boromisza Tibor püspök. A Szentszék 1942. március 26-án nevezte ki a szatmári egyházmegye püspökévé, és május 17-én szentelte püspökké Serédi Jusztinián hercegprímás a szatmári székesegyházban. A kommunista hatalom 1948-ban megszüntette a Szatmár-Nagyváradi Egyházmegyét, a püspököt nyugdíjasnak nyilvánította, eltiltotta funkciója gyakorlásától. Szembeszegül a romániai katolikus egyházat a pápától elszakítani akaró kommunista törekvésekkel, elvi kérdésekben semmilyen alkudozásra nem hajlandó, a pápához töretlenül hű marad, ezért 1950. május 23-án a Hunyad megyei Körösbányára (Baia de Criş), a ferences kolostorba kényszerlakhelyre viszik.
A román kommunista hatalom az ő személyét nézte ki a Rómától függetleníteni akart, Erdélyben egyedülinek elismert egyházmegye vezetésére, Márton Áron helyére. Az állami érdekeket kiszolgáló, az egyház átalakítására felhasznált gyulafehérvári egyházi vezetők mellé egy bábszerepet betöltő püspököt akartak. Nem vállalta a neki szánt szerepet, ezért letartóztatták, és 1952. március 10-e és szeptember 12-e között a bukaresti belügyminisztériumban tartották fogva, innen szállították át Jilava földalatti börtönébe. A kommunista koncepciós perek szokásos vádjával, a Vatikánnak való kémkedéssel és hazaárulással akarták megvádolni. Magas rangú állami vezetők azonnali felmentését ígérték, ha elvállalja a neki szánt szerepet. Cellatársainak elmondta: katolikus papnak nem szégyen kommunista börtönben szenvedni vagy meghalni, hiszen a kötelesség teljesítése és a hitéhez való hűség juttatta oda. Koncepciós pere tárgyalására nem kerülhetett sor, mert a kínzások és a börtön embertelen körülményei egészségét tönkre tették. 1952. december 6-án vértanú halált halt a Jilava-i börtönben.
Szatmár vértanú püspökét 2011. július 3-án avatták boldoggá az egyházmegyei Jézus Szíve Búcsú keretében, a székesegyház előtti főtéren. Emléknapját a Szentszék május 17-ére, püspökké szentelése napjára hagyta jóvá, ennek megfelelően minden év május 17-én szentmisét mutatnak be a tiszteletére a Szatmári Római Katolikus Egyházmegye minden plébániatemplomában. A székesegyházban, ahol Boldog Scheffler János síremléke és földi maradványai találhatók, Schönberger Jenő püspök pénteken este hét órától mutat be szentmisét, a prédikációt Szinovácz György mezőpetri plébános mondja. Szeretettel várják a híveket, hogy imáikat közösen emeljék az egyházmegye első boldogja közbejárásáért.
Scheffler János püspökké szentelésekor